QR Factorization

$A = QR$

$Q$ 는 orthonormal basis for Col A인 $m \times n$ matrix, Orthogonal Projection의 gram-schmidt process를 통해 구한 matrix 이다.

R은, $n \times n$ triangular invertible matrix with positive entries on its diogonal

A가 Linear Independent하므로, R은 Invertible하다. 따라서 $d e t (R) \neq = 0$ 이어 하므로 , digonal entries는 모두 0이 아닌 양수가 되어야 한다.

[a_{1} a_{2} \dots a_{3}] = [q_{1} q_{2} \dots q_{3}] a_{1} \cdot q_{1} 0 ⋮ 0 a_{2} \cdot q_{1} a_{2} \cdot q_{2} ⋮ 0 \dots \dots ⋱ \dots a_{n} \cdot q_{1} a_{n} \cdot q_{2} ⋮ a_{n} \cdot q_{n}

: Gram-schmidt 과정에서, $q_{n}$ 을 구할 때마다, 더하게 되는 projection이 늘어나게 되므로, triangular invertible matrix가 나타나게 된다.

inner product로 R을 구하는 이유는, normaliazation coefficient, 그리고 projectio된 길이를 곱해주는 것이라 할 수 있다.

QR Factorization Steps

$Q^{⊤} A = Q^{⊤} (QR) = I R = R$
: $Q$ 는 orthonormal basis colums 이므로, $Q^{⊤} Q$ 는 $Q$ 의 길이를 의미한다.
Q의 길이는 1이므로, Identity Matrix가 된다.

: $Q^{⊤} A$ 는 inner product matrix를 형성하게 된다.